Paylaş
0
ChatGPT, Gemini gibi büyük dil modellerinden telefonlarda çalışan daha küçük yapay zekâ modellerine kadar farklı modeller, Türkçe ya da İngilizce gibi insan dillerini kullanarak birbirleriyle iletişim kuruyor. Bunu görevleri birbirlerine aktarmak, ürettikleri sonuçları paylaşmak ve daha karmaşık problemleri birlikte çözmek için yapıyorlar. Ancak bu yöntem pek verimli değil. Bir modelin ürettiği metni diğer modelin yeniden işlemesi, hem veri kaybına hem de ciddi işlem maliyetlerine yol açıyor.
Wired'ın aktardığı detaylara göre Rus girişimi Mostik, bu soruna farklı bir çözüm getiriyor. Şirket, modellerin kelimeler üzerinden değil, doğrudan matematiksel katmanları üzerinden haberleşmesini sağlayan bir sistem geliştirdi. Böylece yapay zekalar, birbirlerine ne söylediklerini metne dökmeden doğrudan bilgi aktarabiliyor.
İçerikten Görseller
Yapay zekalar matematiksel ağırlıklarla haberleşiyor
Geleneksel sistemlerde bir modelin çıktısı önce metne dönüşüyor, ardından diğer modele bir komut olarak aktarılıyor. Mostik'in yaklaşımında ise bu aradaki katman ortadan kalkıyor.
Modeller, kelimeler yerine kendi ağırlık parametreleri ve iç sinyalleri üzerinden bilgi paylaşabiliyor. Bu da iletişimi hem daha doğrudan hem de daha az veriyle gerçekleştirmeyi mümkün kılıyor.
Aktarılanlara bu sistem, açık kaynaklı 753 milyar parametreli dev bir model ile yalnızca 4 milyar parametreli bir mobil model arasında test edildi. İşlem maliyeti yaklaşık 20'de 1'e düşerken performans en üst seviyeye ulaştı.
Dev yapay zeka modellerinde maliyet düşebilir
Yapay zekanın büyümesiyle birlikte işlem maliyetleri de giderek daha büyük bir sorun hâline geliyor. Özellikle dev modellerin küçük ve cihaz üzerinde çalışan modellerle birlikte kullanılması, ciddi miktarda hesaplama gücü gerektiriyor.
Mostik'in geliştirdiği yapı burada önemli bir avantaj sunabilir. Küçük modeller ile devasa modeller arasında metin taşımak yerine doğrudan matematiksel bilgi aktarılması, sunucu yükünü ve veri transferini azaltabilir. Böylece şirketler, büyük modellerin kapasitesinden yararlanırken bunun bedelini daha düşük işlem maliyetleriyle ödeyebilir.
